Add copyright notices (#317)

Co-authored-by: Iwan Kawrakow <iwan.kawrakow@gmail.com>
This commit is contained in:
Kawrakow
2025-04-07 10:43:26 +02:00
committed by GitHub
parent abbabf7ca1
commit a051f08b8f
45 changed files with 294 additions and 2 deletions

View File

@@ -1,6 +1,6 @@
//
// Copyright (C) 2023-2024 The ggml authors
// Copyright (C) 2024 Iwan Kawrakow
// Copyright (C) 2023-2024 The ggml authors
// MIT license
// SPDX-License-Identifier: MIT
//

View File

@@ -1,3 +1,9 @@
//
// Copyright (C) 2023-2024 The ggml authors
// Copyright (C) 2024 Iwan Kawrakow
// MIT license
// SPDX-License-Identifier: MIT
//
#include "ggml-cuda.h"
#include "ggml.h"
#include "ggml-backend-impl.h"

View File

@@ -1,3 +1,9 @@
//
// Copyright (C) 2023-2024 The ggml authors
// Copyright (C) 2024 Iwan Kawrakow
// MIT license
// SPDX-License-Identifier: MIT
//
#include "argsort.cuh"
template<typename T>

View File

@@ -1,3 +1,9 @@
//
// Copyright (C) 2023-2024 The ggml authors
// Copyright (C) 2024 Iwan Kawrakow
// MIT license
// SPDX-License-Identifier: MIT
//
#include "common.cuh"
void ggml_cuda_op_argsort(ggml_backend_cuda_context & ctx, ggml_tensor * dst);

View File

@@ -1,3 +1,10 @@
//
// Copyright (C) 2023-2024 The ggml authors
// Copyright (C) 2024 Iwan Kawrakow
// MIT license
// SPDX-License-Identifier: MIT
//
#include "binbcast.cuh"
static __device__ __forceinline__ float op_repeat(const float a, const float b) {

View File

@@ -1,3 +1,10 @@
//
// Copyright (C) 2023-2024 The ggml authors
// Copyright (C) 2024 Iwan Kawrakow
// MIT license
// SPDX-License-Identifier: MIT
//
#include "concat.cuh"
// contiguous kernels

View File

@@ -1,3 +1,10 @@
//
// Copyright (C) 2023-2024 The ggml authors
// Copyright (C) 2024 Iwan Kawrakow
// MIT license
// SPDX-License-Identifier: MIT
//
#include "common.cuh"
#define CUDA_DEQUANTIZE_BLOCK_SIZE 256

View File

@@ -1,3 +1,10 @@
//
// Copyright (C) 2023-2024 The ggml authors
// Copyright (C) 2024 Iwan Kawrakow
// MIT license
// SPDX-License-Identifier: MIT
//
#include "cpy.cuh"
#include "convert.cuh"

View File

@@ -1,3 +1,10 @@
//
// Copyright (C) 2023-2024 The ggml authors
// Copyright (C) 2024 Iwan Kawrakow
// MIT license
// SPDX-License-Identifier: MIT
//
#pragma once
#include "common.cuh"

View File

@@ -1,3 +1,10 @@
//
// Copyright (C) 2023-2024 The ggml authors
// Copyright (C) 2024 Iwan Kawrakow
// MIT license
// SPDX-License-Identifier: MIT
//
#include "common.cuh"
#include "fattn-common.cuh"
#include "fattn-tile-f16.cuh"

View File

@@ -1,3 +1,10 @@
//
// Copyright (C) 2023-2024 The ggml authors
// Copyright (C) 2024 Iwan Kawrakow
// MIT license
// SPDX-License-Identifier: MIT
//
#include "common.cuh"
#include "fattn-common.cuh"
#include "fattn-tile-f32.cuh"

View File

@@ -1,3 +1,10 @@
//
// Copyright (C) 2023-2024 The ggml authors
// Copyright (C) 2024 Iwan Kawrakow
// MIT license
// SPDX-License-Identifier: MIT
//
#include "common.cuh"
#include "fattn-common.cuh"

View File

@@ -1,3 +1,10 @@
//
// Copyright (C) 2023-2024 The ggml authors
// Copyright (C) 2024 Iwan Kawrakow
// MIT license
// SPDX-License-Identifier: MIT
//
#include "common.cuh"
#include "fattn-common.cuh"

View File

@@ -1,3 +1,10 @@
//
// Copyright (C) 2023-2024 The ggml authors
// Copyright (C) 2024 Iwan Kawrakow
// MIT license
// SPDX-License-Identifier: MIT
//
#include "common.cuh"
#include "fattn-common.cuh"

View File

@@ -1,3 +1,10 @@
//
// Copyright (C) 2023-2024 The ggml authors
// Copyright (C) 2024 Iwan Kawrakow
// MIT license
// SPDX-License-Identifier: MIT
//
#include "common.cuh"
#include "fattn-common.cuh"
#include "fattn-tile-f16.cuh"

View File

@@ -1,3 +1,10 @@
//
// Copyright (C) 2023-2024 The ggml authors
// Copyright (C) 2024 Iwan Kawrakow
// MIT license
// SPDX-License-Identifier: MIT
//
#include "getrows.cuh"
#include "dequantize.cuh"

View File

@@ -1,3 +1,9 @@
//
// Copyright (C) 2024 Iwan Kawrakow
// MIT license
// SPDX-License-Identifier: MIT
//
#include "common.cuh"
void mul_mat_vec_iq2_k_q8_1_cuda(

View File

@@ -1,3 +1,10 @@
//
// Copyright (C) 2023-2024 The ggml authors
// Copyright (C) 2024 Iwan Kawrakow
// MIT license
// SPDX-License-Identifier: MIT
//
#include "mmq.cuh"
void ggml_cuda_op_mul_mat_q(

View File

@@ -1,3 +1,10 @@
//
// Copyright (C) 2023-2024 The ggml authors
// Copyright (C) 2024 Iwan Kawrakow
// MIT license
// SPDX-License-Identifier: MIT
//
#pragma once
#include "common.cuh"

View File

@@ -1,3 +1,10 @@
//
// Copyright (C) 2023-2024 The ggml authors
// Copyright (C) 2024 Iwan Kawrakow
// MIT license
// SPDX-License-Identifier: MIT
//
#include "mmvq.cuh"
#include "iqk_mmvq.cuh"
#include "vecdotq.cuh"

View File

@@ -1,3 +1,10 @@
//
// Copyright (C) 2023-2024 The ggml authors
// Copyright (C) 2024 Iwan Kawrakow
// MIT license
// SPDX-License-Identifier: MIT
//
#include "common.cuh"
#define MMVQ_MAX_BATCH_SIZE 8 // Max. batch size for which to use MMVQ kernels.

View File

@@ -1,3 +1,10 @@
//
// Copyright (C) 2023-2024 The ggml authors
// Copyright (C) 2024 Iwan Kawrakow
// MIT license
// SPDX-License-Identifier: MIT
//
#include "quantize.cuh"
#include <cstdint>

View File

@@ -1,3 +1,10 @@
//
// Copyright (C) 2023-2024 The ggml authors
// Copyright (C) 2024 Iwan Kawrakow
// MIT license
// SPDX-License-Identifier: MIT
//
#pragma once
#include "common.cuh"

View File

@@ -1,3 +1,10 @@
//
// Copyright (C) 2023-2024 The ggml authors
// Copyright (C) 2024 Iwan Kawrakow
// MIT license
// SPDX-License-Identifier: MIT
//
#include "rope.cuh"
struct rope_corr_dims {

View File

@@ -1,3 +1,9 @@
//
// Copyright (C) 2024 Iwan Kawrakow
// MIT license
// SPDX-License-Identifier: MIT
//
#include "softcap.cuh"
static __global__ void softcap_f32(const float * x, float * dst, float s_before, float s_after, const int k) {

View File

@@ -1,3 +1,10 @@
//
// Copyright (C) 2023-2024 The ggml authors
// Copyright (C) 2024 Iwan Kawrakow
// MIT license
// SPDX-License-Identifier: MIT
//
#include "common.cuh"
#define CUDA_SOFTCAP_BLOCK_SIZE 256

View File

@@ -1,3 +1,10 @@
//
// Copyright (C) 2023-2024 The ggml authors
// Copyright (C) 2024 Iwan Kawrakow
// MIT license
// SPDX-License-Identifier: MIT
//
#include "common.cuh"
#include "softmax.cuh"

View File

@@ -1,3 +1,10 @@
//
// Copyright (C) 2023-2024 The ggml authors
// Copyright (C) 2024 Iwan Kawrakow
// MIT license
// SPDX-License-Identifier: MIT
//
#include "common.cuh"
#define CUDA_SOFT_MAX_BLOCK_SIZE 1024

View File

@@ -1,3 +1,10 @@
//
// Copyright (C) 2023-2024 The ggml authors
// Copyright (C) 2024 Iwan Kawrakow
// MIT license
// SPDX-License-Identifier: MIT
//
#include "unary.cuh"
static __global__ void gelu_f32(const float * x, float * dst, const int k) {

View File

@@ -1,3 +1,10 @@
//
// Copyright (C) 2023-2024 The ggml authors
// Copyright (C) 2024 Iwan Kawrakow
// MIT license
// SPDX-License-Identifier: MIT
//
#include "common.cuh"
#define CUDA_GELU_BLOCK_SIZE 256

View File

@@ -1,6 +1,6 @@
//
// Copyright (C) 2023-2024 The ggml authors
// Copyright (C) 2024 Iwan Kawrakow
// Copyright (C) 2023-2024 The ggml authors
// MIT license
// SPDX-License-Identifier: MIT
//

View File

@@ -1,3 +1,9 @@
//
// Copyright (C) 2024-2025 Iwan Kawrakow
// MIT license
// SPDX-License-Identifier: MIT
//
#pragma once
#if defined IQK_IMPLEMENT

View File

@@ -1,3 +1,9 @@
//
// Copyright (C) 2024-2025 Iwan Kawrakow
// MIT license
// SPDX-License-Identifier: MIT
//
#include "iqk_config.h"
#include "iqk_mul_mat.h"
#include "iqk_flash_impl.h"

View File

@@ -1,3 +1,9 @@
//
// Copyright (C) 2024-2025 Iwan Kawrakow
// MIT license
// SPDX-License-Identifier: MIT
//
#pragma once
bool iqk_flash_attn_impl(int type_k, // type of k

View File

@@ -1,3 +1,9 @@
//
// Copyright (C) 2024-2025 Iwan Kawrakow
// MIT license
// SPDX-License-Identifier: MIT
//
#pragma once
#include <stdint.h>